Ông quê ở xã Hoàng Phúc, huyện Hoằng Hóa, tỉnh Thanh Hóa. Tên thật là Cao Văn Hòe.

Ông sớm tham gia hoạt động cách mạng, những năm thập niên 1940 bị thực dân Pháp giam giữ tại nhà tù Hỏa Lò, Hà Nội cùng Đào Duy Kỳ, Bùi Lâm, Đỗ Mười, Nguyễn Chương, Hồng Xích Tâm, Nguyễn Văn Kha. Nhà thơ Thôi Hữu cùng quê là bạn thân của ông.

Năm 1945 với bí danh Xích ông cùng với đồng chí Khuất Duy Tiến hoạt động phong trào Việt Minh, vận động giới công thương gia Hà Nội, đặc biệt là gia đình thương gia Trịnh Văn Bô ủng hộ tài chính cho hoạt động cách mạng.

Đầu tháng 8 năm 1946, Thành ủy Hải Phòng quyết định mở Trường Cán bộ Thanh niên mang tên Tô Hiệu, từng là Bí thư Thành ủy Hải Phòng. Trường Huấn luyện Cán bộ Thanh niên Tô Hiệu được đặt ở lâu đài Mác-ty. Thành ủy chỉ định ông làm Hiệu trưởng danh dự trường Tô Hiệu.

Tháng 8/1951 ông làm Ủy viên Ủy ban Kháng chiến Hành chính Liên khu Việt Bắc thay ông Nguyễn Hữu Tạo.[1]

Đồng thời ông được cử tham gia Ban Giáo dục Trung ương cùng Nguyễn Khánh Toàn, Trần Huy Liệu, Đào Duy Kỳ, Nguyễn Hữu Đang, Hoài Thanh do ông Hà Huy Giáp làm Trưởng ban,[2] sau đó ông làm Bí thư Khu ủy Hồng Quảng (nay là tỉnh Quảng Ninh).